1927年蒋介石发动“四·一二”反革命政变后，罗炳辉在国民党军队中遭到排挤，并于1928年冬被编遣。经朋友介绍，他到江西吉安县任靖卫大队长。中共江西省委了解到罗是一个嫉恶如仇、刚直不阿的军官后，特派中共党员、云南宾川人赵醒吾做他的工作。1929年7月，罗炳辉秘密加入中国共产党，同年11月，他率领吉安、吉水、泰和等8县靖卫队1000余人举行了著名的吉安起义。这次起义是在中国革命处于低潮时，从强大的敌人营垒中冲杀出来的，因此显得十分可贵。
起义后，部队编入红军。在土地革命战争中，罗炳辉历任红军独立第五团团长、红六军第二旅旅长、红六军二纵队司令员、红十二军军长、红九军团军团长。在中央革命根据地的5次反“围剿”斗争中，他率部屡建奇功，曾在一天之中连夺两座县城，朱德总司令称他是“两脚骑兵”。后来，美国著名记者尼姆·韦尔斯(斯诺夫人)在延安听到他的传奇故事后，称他是“神行太保”，并感叹地写道：“罗炳辉是一个真正的中国人，中国历史上任何时期的中国人对他都会感到亲切。他是中国人所爱好的关帝型的英雄，是一个‘智勇兼全的人物’……。”
1934年10月，由于第五次反“围剿”的失败，红军被迫实行战略大转移，开始了举世闻名的二万五千里长征。罗炳辉率红九军团在左翼，负责打开通路，抢占要点，和红一、三、五、八军团一道，掩护中央纵队和军委纵队渡过湘江，突破了蒋介石精心设置的第四道封锁线。1935年1月，红九军团在贵州的湄潭，挡住追击的敌人，保卫了遵义会议的胜利召开。之后，红九军团担任了牵制引诱敌人的任务，罗炳辉使出在中央苏区反“围剿”’中“善牵牛鼻子”的本领，虚张声势，声东击西，搞得敌人晕头转向，从而掩护了中央、中央军委及红军主力南渡乌江。
红军长征到达陕北后，党中央安排罗炳辉到抗日军政大学和中央党校学习。1938年1月，罗炳辉到武汉八路军办事处开展统战工作。在武汉短短的10个月中，罗炳辉以云南同乡的身份，对到武汉抗战的滇军六十军官兵开展了卓有成效的统战工作，这些工作为日后云南上层人物的率部起义打下了良好的基础。
1939年1月，罗炳辉调任新四军第一支队副司令员，5月，任第五支队司令员，率部挺进皖中，开创了淮南抗日民主根据地。他在抗击日、伪、顽的斗争中英勇善战，成为华中敌后家喻户晓的抗日名将和传奇英雄。
在多年的戎马生涯中，罗炳辉积劳成疾。抗战胜利后，在组织的关怀和督促下，1946年初，罗炳辉到临沂新四军军部医院治疗。在他养病期间，毛泽东、朱德曾分别从延安给他复信，嘱他养好身体，“留得青山，是很要紧的”(毛泽东信中语)。可惜由于局势紧张，待信于7月带到时，罗炳辉已经病逝，甚为遗憾。
1946年4月，中央军委任命罗炳辉为新四军第二副军长兼山东军区副司令员。由于蒋介石撕毁停战协议，国民党军一再进攻解放区，前线形势紧张，罗炳辉不顾自己的病尚未痊愈，便赶赴前线，与陈毅军长共同研究对敌策略，在前线指挥部和各部队之间奔波，亲自指挥部队拔除了伪军和国民党军在枣庄的据点。由于过度疲劳，罗炳辉在前线几次昏倒。l946年6月21日，他在由降县返回临沂途中，突患脑溢血，在兰陵逝世，时年49岁。
罗炳辉生前曾多次讲过：“人生最快慰的是真正勇敢地牺牲个人一切利益，最热忱努力地为民族独立、自由解放而斗争，尤其是要为劳动大众的解放和利益，以真理、正义、公道为人类的幸福而斗争。”他是这样说的，也是这样做的。
罗炳辉逝世后，中共中央给华东局、新四军兼山东军区以及罗的家属专门打来唁电。6月22日，在战况紧急的情况下，陈毅军长在临沂为其主持了隆重的追悼大会。当天晚上，陈毅军长怀着沉痛的心情，写下了《悼罗炳辉将军》的长诗，记述了他们之间的深厚情谊和罗炳辉的卓越功勋。
1950年，临沂修建了烈士陵园，罗炳辉的遗体迁葬于陵园内，陵园内修建了石墓和遗像亭，陵墓周围的石壁上刻有朱德、周恩来、刘少奇、陈毅等中央领导的题词。
从17岁走出家乡的大山后，罗炳辉就再也没有回去过，但他的心中无时不牵挂着自己的家乡，他生前多次对妻子和孩子们说：“如果我活不到全国解放那一天，你们一定要回云南老家去，替我为你们的祖父母扫墓。你们要告诉乡亲们，我罗炳辉心里最爱父母，最爱家乡。”
家乡人民也深深怀念着他，并为自己的优秀儿子感到骄傲，彝良县修建了罗炳辉纪念馆。罗炳辉将军诞辰100周年时，家乡人民为他塑了一座铜像，永远纪念这位卓越的革命家和军事家。
